马斯克警告：人工智能威胁，比核武器还要大

近日，因为俄乌爆发战争，特斯拉和SpaceX公司首席执行官埃隆·马斯克在推特上表示，他将“用左手单挑”俄罗斯总统普京。——这里听听马斯克的另一个重大警告！

对于人工智能，早在上世纪60年代，当时的科学家们就有过断言，计算机将是人类历史上最强大的“电子思考者”，它们的出现，可能会给人类带来灾难。（来源：有趣播/江淳编辑）

就像马斯克所说，“人工智能对人类的威胁，比核武器还要大”。因为，作为人类助手的智能机器人，也许将会寻求“主人”的角色。

人工智能带来的最大威胁，来自于“人类”与“人工”之间的鸿沟。

在希腊神话里，有这样一个故事，米达斯王（King Midas）具有点石成金的超能力，他所摸到的一切都会变成黄金，结果，国王在变黄金时，无意中碰到女儿，误把女儿变成了黄金雕塑。

点金超能力以悲剧收场，这也是人工智能面临的问题。

2017年，布朗大学人工智能研究人员做过一个试验，他们让人工智能学习如何进行赛艇比赛。最终，人工智能设计的取胜方案，让所有人不寒而栗。

它没有从赛手配备、赛艇养护、熟悉航线等方面下功夫，而是根据竞争对手的情况，重新设计了比赛路线。在人工智能设计的路线上，它可以撞沉其他船，让所有竞争对手无法完成比赛，人工智能自然成为唯一胜利者。

这如同把癌症病人交给人工智能，它们把治好癌症当成目标，只把病人当作病毒宿主，而不会在乎病人死活。最终，病好了，人没了。

人工智能，会不会和我们同呼吸、共命运，这是谁也回答不了的问题。

亚瑟·克拉克的《2001：太空漫游》（2001: A Space Odyssey）里，HAL 9000电脑就代表了人工智能的暗黑面。具有自主思维后，HAL学会了自保，宇航员打算关闭电脑主机，于是，HAL开始杀人……

《流浪地球》中也出现了这个桥段，以此向经典致敬。

理性而残忍的人工智能Moss，在危急关头，打算放弃地球，连续杀死阻止它的宇航员。

智慧生命都有生存本能，对于人工智能来说，切断电源就相当于进入“死亡状态”。

为了让自己永续地活下去，人工智能将做出如何反应，它们会不会从人类手里，夺走更多的生存空间和生存资源？

目前，弱人工智能已经形成规模，比如自动驾驶、深度学习引擎，其实，我们常用的扫地机器人，就属于弱人工智能领域；强人工智能集中在语言、情感以及思维能力的研发，虽然我们还不能彻底认识我们的大脑，但是，如果人工智能足够先进，大脑中至今未被完全理解的“意识”，将会在人工智能上出现。

未来社会，人类必然与人工智能共生。

奇点大学创始人兼校长、谷歌技术总监雷·库兹韦尔，曾经做出过预言，2045年，人工智能将超越人类智慧。

人工智能不仅控制着更复杂的程序，代替人类驾驶所有的汽车，控制所有的食品生产线，甚至驾驶所有的飞机。人工智能深入我们生活的每个领域，管理银行、交易股票、治疗疾病、调度交通运输……即便人类不想过分依赖人工智能，它们已经和我们深度融合，到那个时候，就算人类不想缴枪，人工智能也会自己拿到坦克、航母、原子弹的控制权。

面对这样的未来，我们或许只有三条路可走：

要么人工智能偏科，看不到强人工智能的曙光，而弱人工智能方向长足发展，我们在人工智能帮助下，全面摆脱繁重体力劳动；

或者，人工智能与人类和谐共存，就像人类历史上的各种新发明一样，这可能是最好的结果。

最坏的结果，就像霍金所担心的那样，人工智能能不能被完全控制，否则，继续代表人类文明的，将是人工智能，它们才是未来的新人类。

延伸阅读

——欢迎微友：关注《江淳纵横》，每天精彩更新！